2022-09-27
优化器的高效和自动化设计在全栈自动系统中起着至关重要的作用。但是，优化器搜索中的先前方法通常受其可扩展性，生成性或样品效率的限制。为了将优化器搜索的研究和应用民主化，我们提出了第一个有效，可扩展和可推广的框架，可以直接搜索感兴趣的任务。我们首先观察到优化器更新从根本上是数学表达式应用于梯度。受到基础数学表达式的先天树结构的启发，我们将优化器的空间重新安排到一个超树中，每个路径都编码优化器。这样，优化器搜索可以自然地作为路径找到问题，从而使各种建立的树遍历方法可以用作搜索算法。我们采用蒙特卡洛方法的改编来进行树木搜索，配备拒绝采样和等效形式检测，以利用优化器更新规则的特征来进一步提高样本效率。我们提供了一套多种任务，以基于我们的算法进行基准测试，并证明，只有128个评估，提出的框架可以发现超过人类设计的对应方和先前的优化器搜索方法的优化器。
translated by 谷歌翻译
联邦学习〜（FL）最近引起了学术界和行业的越来越多的关注，其最终目标是在隐私和沟通限制下进行协作培训。现有的基于FL算法的现有迭代模型需要大量的通信回合，以获得良好的模型，这是由于不同客户之间的极为不平衡和非平衡的I.D数据分配。因此，我们建议FedDM从多个本地替代功能中构建全球培训目标，这使服务器能够获得对损失格局的更全球视野。详细说明，我们在每个客户端构建了合成数据集，以在本地匹配从原始数据到分发匹配的损失景观。与笨拙的模型权重相比，FedDM通过传输更多信息和较小的合成数据来降低通信回合并提高模型质量。我们对三个图像分类数据集进行了广泛的实验，结果表明，在效率和模型性能方面，我们的方法可以优于其他FL的实验。此外，我们证明，FedDM可以适应使用高斯机制来保护差异隐私，并在相同的隐私预算下训练更好的模型。
translated by 谷歌翻译
世界目前正在经历持续的传染病大流行病，该传染病是冠状病毒疾病2019（即covid-19），这是由严重的急性呼吸综合征冠状病毒2（SARS-COV-2）引起的。计算机断层扫描（CT）在评估感染的严重程度方面发挥着重要作用，并且还可用于识别这些症状和无症状的Covid-19载体。随着Covid-19患者的累积数量的激增，放射科医师越来越强调手动检查CT扫描。因此，自动化3D CT扫描识别工具的需求量高，因为手动分析对放射科医师耗时，并且它们的疲劳可能导致可能的误判。然而，由于位于不同医院的CT扫描仪的各种技术规范，CT图像的外观可能显着不同，导致许多自动图像识别方法的失败。因此，多域和多扫描仪研究的多域移位问题是不可能对可靠识别和可再现和客观诊断和预后至关重要的至关重要。在本文中，我们提出了Covid-19 CT扫描识别模型即Coronavirus信息融合和诊断网络（CIFD-NET），可以通过新的强大弱监督的学习范式有效地处理多域移位问题。与其他最先进的方法相比，我们的模型可以可靠，高效地解决CT扫描图像中不同外观的问题。
translated by 谷歌翻译
最近，利用卷积神经网络（CNNS）和变压器的深度学习表明，令人鼓舞的医学图像细分导致结果。但是，他们仍然具有挑战性，以实现有限的培训的良好表现。在这项工作中，我们通过在CNN和变压器之间引入交叉教学，为半监控医学图像分割提供了一个非常简单但有效的框架。具体而言，我们简化了从一致性正则化的经典深度共同训练交叉教学，其中网络的预测用作伪标签，直接端到端监督其他网络。考虑到CNN和变压器之间的学习范例的差异，我们在CNN和变压器之间引入了交叉教学，而不是使用CNNS。在公共基准测试中的实验表明，我们的方法优于八个现有的半监督学习方法，只需更简单的框架。值得注意的是，这项工作可能是第一次尝试将CNN和变压器组合以进行半监督的医学图像分割，并在公共基准上实现有前途的结果。该代码将发布：https://github.com/hilab-git/sl4mis。
translated by 谷歌翻译
Pre-trained language models allowed us to process downstream tasks with the help of fine-tuning, which aids the model to achieve fairly high accuracy in various Natural Language Processing (NLP) tasks. Such easily-downloaded language models from various websites empowered the public users as well as some major institutions to give a momentum to their real-life application. However, it was recently proven that models become extremely vulnerable when they are backdoor attacked with trigger-inserted poisoned datasets by malicious users. The attackers then redistribute the victim models to the public to attract other users to use them, where the models tend to misclassify when certain triggers are detected within the training sample. In this paper, we will introduce a novel improved textual backdoor defense method, named MSDT, that outperforms the current existing defensive algorithms in specific datasets. The experimental results illustrate that our method can be effective and constructive in terms of defending against backdoor attack in text domain. Code is available at https://github.com/jcroh0508/MSDT.
translated by 谷歌翻译
语义解析通过组成KB查询来求解知识库（KB）问题回答（KBQA），该查询通常涉及节点提取（NE）和图形组成（GC）以检测和连接查询中相关的节点。尽管NE和GC之间具有强烈的因果影响，但先前的作品未能直接建模其管道中的这种因果关系，从而阻碍了学习子任务相关性的学习。同样，先前作品中GC的序列产生过程会引起歧义和暴露偏见，从而进一步损害准确性。在这项工作中，我们将语义解析正式分为两个阶段。在第一阶段（图结构生成）中，我们提出了一个因果增强的桌面填充者，以克服序列模型的问题并学习内部因果关系。在第二阶段（关系提取）中，提出了一种有效的梁搜索算法，以扩展大规模KB的复杂查询。 LC-Quad 1.0的实验表明，我们的方法超过了先前的最新边距（17％），同时剩余时间和空间效率。代码和型号可在https://github.com/aozmh/crake上找到。
translated by 谷歌翻译
时间序列（TS）异常检测（AD）在各种应用中起重要作用，例如，金融和医疗保健监测中的欺诈检测。由于异常的本质上不可预测和高度不同，并且在历史数据中缺乏异常标签，而广告问题通常被制定为无监督的学习问题。现有解决方案的性能往往不令人满意，尤其是数据稀缺方案。为了解决这个问题，我们提出了一种新颖的自我监督的广告中的时间序列学习技术，即\ EMPH {DeepFib}。我们将问题模型为a \ emph {填写空白}游戏，通过屏蔽TS中的某些元素并将其抵御其余部分。考虑到TS数据中的两个共同的异常形状（点或序列异常值），我们实施了两个具有许多自我产生的训练样本的掩蔽策略。相应的自我估算网络可以提取比现有的广告解决方案更强大的时间关系，并有效地促进识别两种类型的异常。对于连续异常值，我们还提出了一种异常的本地化算法，可大大减少广告错误。各种现实世界TS数据集的实验表明，DeepFib优先于最先进的方法，通过大幅度，实现F1分数的高达65.2 \％$ 65.2 \％。
translated by 谷歌翻译
尽管机器学习系统的效率和可扩展性，但最近的研究表明，许多分类方法，尤其是深神经网络（DNN），易受对抗的例子;即，仔细制作欺骗训练有素的分类模型的例子，同时无法区分从自然数据到人类。这使得在安全关键区域中应用DNN或相关方法可能不安全。由于这个问题是由Biggio等人确定的。 （2013）和Szegedy等人。（2014年），在这一领域已经完成了很多工作，包括开发攻击方法，以产生对抗的例子和防御技术的构建防范这些例子。本文旨在向统计界介绍这一主题及其最新发展，主要关注对抗性示例的产生和保护。在数值实验中使用的计算代码（在Python和R）公开可用于读者探讨调查的方法。本文希望提交人们将鼓励更多统计学人员在这种重要的令人兴奋的领域的产生和捍卫对抗的例子。
translated by 谷歌翻译
In this paper, we propose a robust 3D detector, named Cross Modal Transformer (CMT), for end-to-end 3D multi-modal detection. Without explicit view transformation, CMT takes the image and point clouds tokens as inputs and directly outputs accurate 3D bounding boxes. The spatial alignment of multi-modal tokens is performed implicitly, by encoding the 3D points into multi-modal features. The core design of CMT is quite simple while its performance is impressive. CMT obtains 73.0% NDS on nuScenes benchmark. Moreover, CMT has a strong robustness even if the LiDAR is missing. Code will be released at https://github.com/junjie18/CMT.
translated by 谷歌翻译
Knowledge graphs (KG) have served as the key component of various natural language processing applications. Commonsense knowledge graphs (CKG) are a special type of KG, where entities and relations are composed of free-form text. However, previous works in KG completion and CKG completion suffer from long-tail relations and newly-added relations which do not have many know triples for training. In light of this, few-shot KG completion (FKGC), which requires the strengths of graph representation learning and few-shot learning, has been proposed to challenge the problem of limited annotated data. In this paper, we comprehensively survey previous attempts on such tasks in the form of a series of methods and applications. Specifically, we first introduce FKGC challenges, commonly used KGs, and CKGs. Then we systematically categorize and summarize existing works in terms of the type of KGs and the methods. Finally, we present applications of FKGC models on prediction tasks in different areas and share our thoughts on future research directions of FKGC.
translated by 谷歌翻译